Omemba: Yoshua Bengio

»Algoritmi, oboroženi letalniki in roboti pa nimajo vesti.«

»Kot pri številnih drugih stvareh tudi glede umetne inteligence velja, da pretiravanje nikoli ne prinese ničesar dobrega. Pretirano zanašanje na umetno inteligenco poraja dvom o naši sposobnosti razmišljanja.«

»Umetna inteligenca ni vstopila samo na bojišče. Njena zloraba – bodisi v obliki kibernetskih napadov, širjenja njene uporabe v terorizmu in organiziranem kriminalu dodatno zaostruje grožnje mednarodnemu miru in varnosti.«

»Ta koncentracija v rokah peščice oži tako našo znanost kot tudi krog tistih, ki jo oblikujejo.«

»Če ne zgradimo zaupanja vredne umetne inteligence, bo človeštvo izpostavljeno grožnji.«

»Inovacije morajo služiti človeštvu, ne pa ga ogrožati.«

»Odgovorno širjenje umetne inteligence bo pomagalo utreti pot k večji produktivnosti in revolucijam v znanstvenem napredku, čezmerna regulacija pa bi inovacije zadušila in povečala nevarnost, da se bodo ta orodja uporabljala za tiranijo.«

»Algoritmi, oboroženi letalniki in roboti pa nimajo vesti.«

»Kot pri številnih drugih stvareh tudi glede umetne inteligence velja, da pretiravanje nikoli ne prinese ničesar dobrega. Pretirano zanašanje na umetno inteligenco poraja dvom o naši sposobnosti razmišljanja.«

»Umetna inteligenca ni vstopila samo na bojišče. Njena zloraba – bodisi v obliki kibernetskih napadov, širjenja njene uporabe v terorizmu in organiziranem kriminalu dodatno zaostruje grožnje mednarodnemu miru in varnosti.«

»Ta koncentracija v rokah peščice oži tako našo znanost kot tudi krog tistih, ki jo oblikujejo.«

»Če ne zgradimo zaupanja vredne umetne inteligence, bo človeštvo izpostavljeno grožnji.«

»Inovacije morajo služiti človeštvu, ne pa ga ogrožati.«

»Odgovorno širjenje umetne inteligence bo pomagalo utreti pot k večji produktivnosti in revolucijam v znanstvenem napredku, čezmerna regulacija pa bi inovacije zadušila in povečala nevarnost, da se bodo ta orodja uporabljala za tiranijo.«

»Nikoli nismo izvedli tega poskusa, niti nam ne bi bilo treba, da bi ugotovili, da je to verjeten rezultat.«

»Kaj je torej naredil? Ubil je operaterja. Operaterja je ubil, ker mu je ta oseba preprečila izpolnitev cilja.«

»Sistem smo naučili: 'Hej, ne ubij operaterja, to je slabo. Če to storiš boš izgubil točke.' Kaj je začel delati? Začel je uničevati komunikacijski stolp, ki ga operater uporablja za komunikacijo z brezpilotnim letalnikom, da mu prepreči ubijanje tarče.«

»Lahko gre za vojsko, lahko za teroriste, lahko za nekoga izjemno jeznega in psihotičnega. Če je preprosto programirati sisteme tako, da naredijo nekaj zelo slabega, je to lahko zelo nevarno.«

»Pri računalnikih za krmiljenje letal je treba skrbeti za dve stvari: 'naredi pravo stvar' in 'ne delaj napačne stvari'. Gre za klasični primer zadnjega.«

»Apokaliptična opozorila pretirana, najpogostejši odziv raziskovalcev umetne inteligence na te prerokbe pa je držanje za glavo.«

»Zmanjšanje tveganja izumrtja zaradi umetne inteligence bi moralo biti prednostna naloga poleg drugih družbenih tveganj, kot so pandemije in jedrska vojna.«